MetaAgent-X : Breaking the Ceiling of Automatic Multi-Agent Systems via End-to-End Reinforcement Learning
MetaAgent-X:端到端RL打破自动多智能体系统的天花板
🧭 自动多智能体系统的端到端联合训练 ★ 深度解读
Oregon State University · UCSD · Amazon AGI · Pennsylvania State University · AG2AI, Inc.
提出首个端到端RL框架,联合优化MAS的设计与执行,通过分层Rollout与阶段式共进化获得最高21.7%提升。
📌 工作参考价值(4 点)
- 层次化信用分配:将MAS设计质量与执行能力分开评估,设计奖励用多次执行均值,执行奖励在问题级归一化。复杂Agent链路(如推荐生成→验证→融合)可借鉴此解耦训练。
- 阶段式交替训练:交替更新设计者和执行者(例如每30步切换),避免非平稳环境导致的训练崩塌。在电商多Agent编排时,可先用固定执行器训练编排,再反过来微调执行器,形成稳定的共进化闭环。
- 脚本化MAS生成:让设计者输出可执行的Python脚本来实例化Agent工作流,便于在业务中快速构造和复用不同Agent拓扑。
- 共享策略优于分离策略:实验表明共用骨干的设计者与执行者比分离参数更有效,在资源受限时可直接用一种模型承担多种角色,简化部署。